Heroku Router
https://devcenter.heroku.com/articles/http-routing
Herokuの各Dynoにアクセスを振り分けるHTTPロードバランサー
sticky-sessionやWebSocketに対応していたりして、なかなかよく考えて実装されているようだ
定期的なdynoの再起動とgraceful restartのためのルールが実装されている
アプリがclientに30秒以内にレスポンスを返さないとエラーと見なす、等
詳しくはHeroku Error Codeへ